由于黄河生态的日益恶化，水资源的不断减少，致使沿黄两岸的许多条重点支流因缺水稀释工业废水而造成严重污染。黄河水污染最严重的河段为宁夏至内蒙古河段和陕西潼关至河南三门峡河段，主要原因是一些污染企业超标排放。为此，黄委曾调整小浪底水库运用方式拦洪蓄水，在国内大江大河中首次将洪水资源化，为黄河下游防断流和治污染提供80亿多立方米的宝贵水源。但由于劣五类水源源不断地注入，致使每年冬春，小浪底的一库“净水”时有变质现象，并曾两次使引黄济津被迫停止。
特别是位于晋陕豫交界处的黄河小北干流地区，由于近年来污染严重，致使流域内40％—70％的水体已降至国家标准的最差级。污染源主要是黄河沿岸的工业废水和生活污水。黄河干流汾河临汾段，173.5公里长的河段沿岸就有956家企业，其中包括77家造纸厂、402家焦化洗煤厂、243家选矿厂……它们每年向汾河排放工业废水6100万吨。此外，沿岸的城市每年还要排入3000万吨生活污水。两岸的人们有10多年没有听到汾河水的哗啦声。被山西人民称为“母亲河”的汾河不仅献出了乳汁，还要替儿孙藏污纳垢。由于负担日重，它已经无力再哺育它的儿女，一部分河段甚至已经丧失农用灌溉的功能。
渭河作为黄河的第一大支流，流经甘肃和陕西的23个县（市），在陕西省潼关县汇入黄河。近年来，陕西渭南市的11家造纸厂每年向渭河排放污水535万吨。城市生活污水和其他工业废水都直接排入渭河，使渭河一到枯水期河床都是黑色的。沿河的城市除西安有一个日处理能力27万吨的污水处理厂外，没有一个城市有生活污水处理厂。20世纪70年代，渭河下游水草丰美，许多农民以打鱼为业，可如今渭河中只剩下一种俗称“蛤鱼”的鱼，且有浓重煤油味，不能食用。这样的现状，怎能不让人们担忧。
另据有关媒体报道，上个世纪90年代后期以来，每到冬春季节，三门峡水库的泄水都会变成“酱油色”，水面上还不时地泛起白色泡沫，气味十分难闻。
日趋严重的黄河水污染，不仅破坏了黄河生态系统，而且也使黄河河道中近1/3的水生物绝迹。据黄河水资源保护研究所专家介绍，黄河许多支流在五六十年代水清鱼跃，目前却是全河皆污、臭气熏天，鱼虾绝迹。洛河的鲤鱼和伊河的鲂鱼自古有“洛鲤伊鲂贵似牛羊”之誉，令人遗憾的是，这两个名贵鱼种因水污染而绝迹。由于黄河中游地区污染水的大量排泄，直接影响到了郑州等大中城市用水的安全。
好在近年来，国家环保部门、流域环保机构特别重视黄河水污染的防治工作。分别采取有效措施，加大整治力度，并督促有关水利主管部门限制引黄水量，商请有关部门加大三门峡和小浪底水库下泄流量；对产生污染、设施落后的造纸、制革、酿造、食品、制药企业一律停产停排；对重点污染企业及重点污染源限产；对用水大户限产或限量用水，压缩工农业用水，采取拦污、导污、截污措施，减少污水入黄河量；认真做好水源备用和防止重大供水污染事故的应急预案，为确保黄河“水质不污染”起到了很好的监管作用。